Covid-19 ile ilgili komplo teorilerinin hızla yayılması, bizi çevrimiçi bilgi ekosistemlerimizin daha platformun yöneticileri müdahale dahi edemeden bir silah haline gelebileceği konusunda bir uyarı niteliğinde. Virüsle ilgili bilgi kirliliğinin önüne geçmek için bu platformlar, zararlı içeriğin hızla artışını sınırlandıracak devre kesici mekanizmaları devreye sokmalı.
Perşembe günü Casey Newton, Facebook’un belli durumlarda gönderilerin viral olarak yayılmasını önleyecek bir devre kesicinin pilot çalışmasını yaptığını duyurdu. Bu tarz bir araç, bu makalenin yazarlarından Goodman’ın da önerdiği ve Center of American Progress’in de belirttiği gibi daha önce uygulanmış olsaydı, QAnon’un zehirli bir şekilde yayılmasını durdurabilirdi. Zararlı komplo teorilerinin algoritmik olarak artışını sınırlandırarak tehlikeli bir tahrik ve yanlış bilgilendirme akımını kesebilirdi.
Facebook ile ilgili haber, sosyal medya platformlarının daha önceden uyarıldıkları için Plandemic serisinin viral olarak yayılmasını engellediği haftaya denk geliyor. Mayıs ayında ilk Plandemic videosu yayınlandığında işler çok farklı gelişmişti. Burada maskelerin tehlikeli, sosyal mesafeninse gereksiz olduğu yönünde mesajlar vardı. Video o kadar hızlı bir şekilde yayıldı ki daha YouTube, Facebook ve Twitter kendi kurallarını ihlal ettiği gerekçesiyle içeriği kaldırmadan önce, 1 hafta içinde 8 milyon defa izlendi. Bu video, yüksek bulaşma riski (virüs uzmanları buna R0 ya da temel üreme sayısı der) olan dijital bir patojendi.
Temel üreme sayısı yükseliyorsa viral dezenformasyon hızı da artıyor demektir. Temmuz ayında America’s Fronline Doctors (Amerika’nın Cephedeki Doktorları) isimli, hidroksiklorokin maddesini COVİD-19 için mucizevi tedavi olarak öne süren bir video ortalığı kasıp kavurdu. Kara para ile finansmanı yapılan bu video, etki gücü olan bazı hesaplardan yayıldı, algoritmik tavsiyeler ile öne çıkarıldı ve özel Facebook gruplarında paylaşıldı. Daha Facebook içeriği kaldıramadan 12 saat içinde sadece bu platformda 20 milyon kez izlendi. Dolayısıyla COVİD-19 “doğrucuları” temelde güvenli olmayan bir yükseltme/çoğaltma sistemini kötüye kullanarak Plandemic videosu ile elde ettikleri izleme sayılarını çok daha kısa sürede ikiye katladılar.
Covid-19 ile ilgili komplo teorilerinin hızla yayılması bizi çevrimiçi bilgi ekosistemlerimizin daha platformun yöneticileri müdahale dahi edemeden (hatta tehlikeyi farketmeden) bir silah haline gelebileceği konusunda bir uyarı niteliğinde. Federal İletişim Komisyonu kamu güvenliğini korumak için bu tarz aldatmacaları yasaklar. Federal Ticaret Komisyonu sağlık sistemi dolandırıcılıklarını engeller. Online kaynaklar, dolandırıcılık ve aldatmacalar daha moderasyonun çekici inmeden milyonlarca kişiyi etkileyebilir. Bir sonraki sefere bazı kötü niyetli aktörler, Anthony Fauci’nin Amerikalılara aşıdan uzak durmalarını ya da virüse kendi istekleriyle temas etmelerini tavsiye ettiği montajlanmış bir video paylaşabilirler. Ya da Seçim Günü sandıkların kapandığını ilan eden bir mesaj da olabilir bu. Bu tarz provokasyonlar insanları çevrimdışı dünyada ciddi zarar görecekleri riskleri almaya teşvik edebilir. Çevrimiçi aldatmacaların temel çoğalma sayısı, dolandırıcıların bu içerikleri öfkeden ve saflıktan fayda sağlayacakları algoritmik yolların üzerine stratejik olarak yerleştirmeleri sayesinde artmaktadır. Eğer bu platformlar daha agresif önlemler almazsa, çevrimiçi dezenformasyon sebebiyle oluşacak riskler de hızla artmaya devam edecektir.
Fakat bunu değiştirmenin bir yolu olabilir. Viral olarak yayılan bu yanlış bilgilendirmenin önünü alabilmek için platformların anti-viral algoritmalar geliştirmesi gerekir. Başka alanlarda benzer mekanizmalar görmüştük. En bilineni New York Borsasının piyasa dalgalanmalarından kaynaklanan paniği önlemek için kullandığı devre kesicidir. Bu devre hisse fiyatları bir önceki günün S&P kapanış fiyatına göre %7’den fazla düşerse devreye girer. İşlemler 15 dakikalığına durur böylece yatırımcılar piyasada ne olduğunu anlayıp ona göre davranabilir. Bu devre kesicilerin amacı, ticari işlemleri bir süreliğine durdurarak yatırımcılara yeni gelen bilgiyi sindirecek zamanı tanımak ve “borsacıların yüksek dalgalanma dönemlerinde bilgi ile hareket edecekleri alanı oluşturmak” olarak tanımlanabilir. Finans piyasalarında kullanılmakta olan diğer bir yavaşlatma metodu da yüksek frekanslı işlemleri yavaşlatan kasislerdir [trafikteki gibi].
Çevrimiçi viral içerikler de yüksek frekanslı ticari işlemler gibidir. Sistem aşırı ısınır, insanlar düşünmeden paylaşmaya başlar. Güçlü duygular uyandıran paylaşımlar mantıksız bir coşku halini alır. Dolayısıyla dijital platformlarda daha çok frenlemeye ihtiyacımız var. Viral paylaşımın, Facebook’un Pandemik serisi ile ilgili verdiği ön bildirim olmadan da, en azından itinalı bir şekilde gözden geçirilmesine vakit tanıyacak kadar yavaşlatacak mekanizmalara ihtiyacımız var. Bu sistemler bahsettiğimiz mantıksız coşkuya şans eseri kapılmıyorlar. Bunun için tasarlanıyorlar. Tarif daha fazla trafiği çekiyor, hatta bazen bilişsel ve operasyonel kontrolleri zorlayacak bir hıza ulaşıyor. Devre kesici bir mekanizma bu içeriğin katlanarak artmasını sınırlayacaktır, en azından denetleyen insanların içeriğin platformun kurallarına uyup uymadığını ya da kamusal çıkarlara bir risk oluşturup oluşturmadığını belirleyecek zamanı tanıyacaktır. Eğer öyleyse içerik kaldırılabilir, değilse paylaşımı serbest bırakılabilir.
Borsada kullanılan devre kesici serbest düşüş içinse, platformda kullanılacak tetikleyici de üstel büyüme içindir. Viral davranış genellikle hokey sopasına benzetilir. İzleyicilerin ifadelerine de, paylaşımlarına da, diğer etkileşimlerine de baksanız rakamların üstel olarak büyüdüğünü görürsünüz. Frenleme yapıp işleri yavaşlatacağınız yer, bu etkileşimlerin hızla çoğaldığı yerdir. Platformlar belli bir dönemde etkileşim hızı ile ilgili gerçek zamanlı veriye sahiptir. Bu hızı ölçmek için bir sosyal medya istihbarat şirketi olan Newswhip’in verilerine baktık. 12 saatlik süreç içinde halka açık sayfalardan (Newswhip kuralı) en iyi performansı gösteren 300 yeni Facebook paylaşımını inceledik. En iyi ölçüt olarak etkileşimi kullanarak farklı günlerde en çok yayılan paylaşımların performansını ve dağılımını analiz ettik. Tetikleyicimizi de “dönüm noktası” olarak belirlediğimiz yere yani süper bulaştırıcı paylaşımların sürüden ayrıldığı noktaya yerleştirdik.
Bu veriye göre 12 saat içinde 100.000 Facebook etkileşimi ulusal bir hedef olarak doğru göründü, zaten aşırı bir daraltma yaratmak istemiyoruz. Bu durumda elimizde o dönem içinde Facebook üzerinden kamuya açık sayfalardan yapılan paylaşımların %0.01’i bulunuyor. Twitter’in doğrulanmış hesaplar için paylaştığı veri de benzer şekilde. Bu platformlar 100.000 etkileşimde “alım-satımı durdursa” dezenformasyon aşırı bir zarar vermeden paylaşımlardaki kural ihlallerini belirleme şansları olurdu. Bu tetikleyici sayesinde hidroksiklorokin videosu ilk birkaç saat içinde durdurulmuş olurdu.
Başarısız paylaşım denemelerinin sonucunda kullanıcıya içeriğin gözden geçirildiği yönünde bir mesaj verilebilir. İnsanlar bu paylaşımları görmeye ve ekran fotoğrafı ile paylaşmaya devam edebilir elbet, ama hızı kesecek tümsekler gerekli frenlemeyi yaratacaktır. Oy verme gibi daha lokalize dezenformasyon vakalarında daha hassas ve konum etiketli tetikleyiciler kullanılabilir. YouTube tetikleyicisi diğerlerinden farklı olabilir çünkü ölçütleri oldukça farklıdır. Gerekirse, platformlar arasında tetikleyicileri normalleştirmek yüzdeler kullanılarak yapılabilir ama şeffaf, platforma özel tetikleyiciler trafiğin değişkenliği sebebiyle daha anlamlı olacak gibi görünüyor.
Viralliğin kendisi bir sorun değil. Sorun içeriğin müthiş bir hızla yayılıp platformların kendi içerik kurallarını uygulamakta gecikmesi. 100 bin etkileşimin mükemmel bir tetikleyici olduğunu iddia etmiyoruz. Pek çok durumda fazla yüksek kalabilir, özellikle de diğer müdahalelere bağlı olarak çalışan güvenilirliği düşük sitelerden paylaşılan yanlış bilgiler için bu geçerli olabilir. Bunun yerine platformların ellerindeki daha iyi verileri kullanarak devre kesiciler geliştirmeli ve nasıl çalıştıkları konusunda da şeffaf olmalılar. The Daily ile yaptığı son söyleşide Twitter CEO’su Jack Dorsey yana yakıla Twitter’ın “en açık-saçık ve tartışmalı tweetleri” öne çıkaracağını bilse neleri farklı yapacağından bahsediyor ve özellikle de paylaşımları frenleme konusuna değiniyor. WhatsApp benzer bir sistemi, viralliği kontrol altında tutmak için yönlendirmeyi sınırlamaya (limiting forwarding) başladı. Twitter şimdi başlasa içerikten bağımsız olarak belli bir dağılım sınırından sonra paylaşımı daraltacak bir yaklaşımı uygulayabilir. İşin özeti kural ihlallerini tespit edecek bir insanın işin içinde olması en azından platformların tehlikeli viral yayılımı farketmesini garanti edecektir.
Amerika’nın ifade özgürlüğü geleneği gerçek ve sahtenin birbiriyle savaşabileceği, iyi ifadenin kötüsü ile karşılaşıp onu alt edebileceği prensibine dayanır. Ama bu prensip, o ifade ışık hızında hareket ederken ve kötü aktörler kötü niyetli yalan, kandırmaca ve dolandırıcılığı artırırken çalışmaz. Platformlar kendi algoritmik yaratılarının esiri olmuş durumda. İçeriğin dağılım hızı viral içeriğin platform kurallarını ihlal edip etmediğinin tespit edilmesini engelliyor. Platformlar üstel yayılımı frenleyecek mekanizmaları sistemlerine dahil ederse, geçici de olsa, kontrolsüz hızın yarattığı tehlikelerle mücadele edip, bir yandan da ifade özgürlüğünü korumaya devam edebilirler.
-------------------------------------
Bu makale ilk olarak 21 Ağustos 2020'de Future Tense channel on Slate 'da yayınlandı.
Bu metin İngilizce'den Türkçe'ye Çağrı Ekiz tarafından çevrilmiştir.